Tan Sri Dato Dr. Azmi Bin Rohani dilahirkan di Segamat, Johor pada 1968. Pada tahun 1969, Keluarganya berpindah ke Felda Sungai Sayong, Kulai, Johor. Mendapat pendidikan awal di Sekolah Kebangsaan LKTP Sungai Sayong (INTEC) dan seterusnya Sekolah Menengah Kebangsaan Sultaan Alauddin. Selepas menamatkan pendidikan Tingkatan 6 di Sekolah Melayu Ghaffar Baba, beliau menyambung pendidikan di peringkat Ijazah Sarjana Muda Sains Pembangunan (Pengurusan & Ekonomi) di Universiti Kebangsaan Malaysia dan Ijazah Sarjana Pembangunan Manusia di Universiti Teknologi Malaysia, Johor[3]. Pada 21 Mei 2022, beliau berjaya menamatkan pengajian dengan Graduate On Time dan dianugerahkan Ijazah Doktor Falsafah (Pentadbiran dan Pembangunan Tanah) Universiti Teknologi Malaysia